Sliding Window Log
from
Rate Limiting
GPT-4.icon
リクエストのタイムスタンプをログに記録し、現在の時間から一定期間内のリクエスト数を計算
特徴
精度が高いが、ログサイズが増えるとメモリ消費が大きくなる。
Fixed Window Counter
の改善
/mrsekut-book-4802614063/076